Ngay từ đầu năm 1944, ông đã xung phong tình nguyện chiến đấu tại Đông Dương. Tuy nhiên đến ngày 9 tháng 3 năm 1945, ông mới được giao nhiệm vụ thâm nhập vào Đông Dương để tổ chức các hoạt động tình báo trong vùng Nhật chiếm đóng. Tuy nhiên, chỉ 15 ngày sau, ông lại được giao nhiệm vụ làm Chỉ huy trưởng Phái đoàn 5 (gọi tắt là MI-5), khi đó đang đóng tại Côn Minh.

Trong suốt thời gian hoạt động tại Côn Minh, ông nhiều lần tổ chức các nhóm biệt kích để tung vào Đông Dương, thậm chí có lần đích thân thâm nhập vào khu vực Hạ Long. Bên cạnh đó, ông cũng có lần tiếp xúc với Nguyễn Tường Tam nhằm tìm hiểu tình hình Đông Dương và tìm một ý tưởng giải quyết vấn đề Đông Dương.

Cũng trong thời gian ở Côn Minh, ông có những buổi làm việc chung với chỉ huy OSS tại Côn Minh là Thiếu tá Archimedes Patti và có những bất đồng cơ bản về vấn đề giải quyết quy chế tương lai của Đông Dương.

Sau khi Nhật đầu hàng Đồng Minh vào tháng 8 năm 1945, ngày 22, Sainteny được Sở tình báo chiến lược Mỹ ở Côn Minh giúp đỡ đã tới Hà Nội với mục đích giải quyết vấn đề tù binh chiến tranh và giải giáp quân Nhật. Tuy chỉ là một sĩ quan chỉ huy MI-5, ông tự xem mình như đại diện của chính phủ Pháp tại Đông Dương. Vì vậy ông đã có nhiều cuộc tiếp xúc với các nhóm chính trị khác nhau để khẳng định vị trí đại diện nước Pháp tại Đông Dương. Tuy được công nhận là Ủy viên Cộng hòa Pháp tại Bắc Kỳ và Bắc Trung Kỳ ngày 1 tháng 10 năm 1945, nhưng các hoạt động chính trị của ông nhằm giữ lại quyền lợi thuộc địa của Pháp tại Đông Dương mang lại rất ít kết quả.

Với việc MI-5 giải tán, Sainteny chính thức trở thành một nhà chính khách và đứng giữa vòng xoáy chính trị giữa Việt Nam, Pháp và Trung Quốc. Chính trong thời gian này, qua các cuộc tiếp xúc với các thủ lĩnh chính trị người Việt, đặc biệt là với Hồ Chí Minh. Trong thời gian này, ông dần chuyển từ thái độ kiên quyết giữ quyền thuộc địa của Pháp tại Đông Dương sang thái độ ôn hòa hơn. Đầu năm 1946, ông được cử làm Đại diện, thay mặt Pháp trong cuộc đàm phán Pháp - Việt và cùng với Chủ tịch nước Việt Nam Dân chủ Cộng hòa, Hồ Chí Minh ký tên vào bản Hiệp định sơ bộ ngày 6 tháng 3 năm 1946, mở đầu mối quan hệ giữa Việt Nam Dân chủ Cộng hòa và Cộng hòa Pháp. Ông cũng tháp tùng Phái đoàn Việt Nam sang đàm phán tại Hội nghị Fontainebleau và chuyến viếng thăm của Chủ tịch Hồ Chí Minh tại Pháp từ 24 tháng 4 đến 19 tháng 9 năm 1946.

Tuy cả Hiệp định sơ bộ và Tạm ước 14 tháng 9 đều đã được ký, nhưng dưới sức ép của những người theo quan điểm cứng rắn về quyền thuộc địa ở Đông Dương, những nỗ lực của Sainteny và những người theo chủ trương ôn hòa hầu như không mang lại kết quả. Ngày 2 tháng 12 năm 1946, ông trở lại Hà Nội với chức vụ Thống đốc Bắc Kỳ. Ngày 3, ông có cuộc tiếp xúc lần cuối với Chủ tịch Hồ Chí Minh nhằm tìm lối thoát ngăn chặn cuộc chiến. Nhưng tình hình đã quá căng thẳng và không thể cứu vãn cuộc chiến sắp nổ ra.

Vào ngày 19 tháng 12 năm 1946, trên đường trở về từ doanh trại của tướng Morliere, xe Sainteny trúng phải mìn của Việt Minh. Cuộc chiến tranh Việt - Pháp bùng nổ.